Gia đình Tư Mã là những người viết sử cho hoàng đế nhà Hán. Cha của Tư Mã Thiên là Tư Mã Đàm giữ chức "Thái sử lệnh" và Tư Mã Thiên là người nối nghiệp. Vì thế, ông có thể xem được những lưu trữ, sắc lệnh và hồ sơ trong những năm đầu của nhà Hán. Tư Mã Thiên là một nhà sử học hoài nghi, có phương pháp và biết rất nhiều sách cổ, được viết trên phiếu tre và gỗ từ trước thời nhà Hán. Nhiều tư liệu mà ông sử dụng đã không còn tồn tại. Ông không chỉ sử dụng tài liệu lưu trữ và hồ sơ của triều đình, nhưng cũng phỏng vấn người dân và đi khắp Trung Quốc để xác minh thông tin. Trong quyển đầu tiên của Sử ký, "Ngũ Đế bản kỉ", ông viết:

Bản thân tôi đã đi về phía tây xa đến tận núi Không Động, phía bắc qua Trác Lộc, phía đông đến biển, và ở phía nam tôi đã đi thuyền theo Hoàng Hà và Hoài Hà. Những trưởng lão và người già ở những vùng đất khác nhau thường xuyên chỉ ra cho tôi những nơi mà Hoàng Đế, Nghiêu và Thuấn đã sống, và ở những nơi này các phong tục tập quán có vẻ khá khác nhau. Nói chung những lời kể của họ không khác gì mấy so với các bản văn cổ xưa dường như là gần với sự thật.

— Tư Mã Thiên.[11]

Sử ký dùng "Ngũ Đế hệ điệp" (五帝系諜) và Kinh Thư là nguồn tư liệu để làm gia phả từ thời Hoàng Đế cho đến Chu Triệu cộng hòa (841 TCN-828 TCN). Tư Mã Thiên thường trích dẫn các nguồn tư liệu của ông. Ví dụ:

• Quyển đầu tiên, "Ngũ Đế bản kỉ", ông viết, "Tôi đã đọc Kinh Xuân Thu và Quốc ngữ."
• Trong quyển 13, "Bảng phả hệ của Ba thời đại", Tư Mã Thiên viết: "Tôi đã đọc tất cả các gia phả của các vị vua (dieji 谍记) tồn tại từ thời Hoàng Đế."
• Trong quyển thứ 14, "Biên niện sử của các vương", ông viết: "Tôi đã đọc tất cả các biên niên sử của hoàng gia (chunqiu li pudie 春秋曆譜諜) cho đến thời của Chu Lệ vương.".
• Trong quyển thứ 15, "Biên niện sử của sáu nước", ông viết: "Tôi đã đọc biên niên sử của Tần (qin ji 秦記), và sách nói rằng Khuyển Nhung [một bộ lạc man rợ] đánh bại Chu U Vương [khoảng năm 771 TCN]."
• Trong quyển thứ 19, ông viết: "Tôi có dịp đọc qua hồ sơ của việc cấp thái ấp và biết đến trường hợp của Ngô Thần, Cấp hầu.... " (Cha của Cấp hầu, Ngô Nhuế, được phong làm vương của Trường Sa ở Hồ Nam do lòng trung thành của ông với Hán Cao Tổ.)
• Trong quyển về nhà chính trị gia, nhà thơ yêu nước Khuất Nguyên, Tư Mã Thiên viết: "Tôi đã đọc [tác phẩm của Khuất Nguyên] Ly tao, Thiên Vấn ("Hỏi trời"), Chiêu hồn (gọi hồn), và Sở từ."

Tư Mã Thiên cũng viết về vấn đề liên quan với những nguồn tư liệu không đầy đủ, rời rạc và mâu thuẫn. Ví dụ, ông đã đề cập trong lời mở đầu của quyển 15 rằng các sổ ghi chép của các nước chư hầu được ​​giữ trong kho lưu trữ của nhà Chu đã bị Tần Thủy Hoàng cho đem đốt bởi vì chúng chứa những lời chỉ trích và chế nhạo nhà Tần và rằng các biên niên sử của nhà Tần thì quá ngắn ngủi và không đầy đủ [12]. Trong quyển 13, ông cũng đề cập việc các biên niên và phả hệ của các văn bản cổ khác nhau "không đồng tình và mâu thuẫn với nhau". Trong quyển thứ 18 của Sử ký, Tư Mã Thiên viết: "Tôi đã chỉ những gì nhất định, và trong trường hợp nghi ngờ sẽ để lại một khoảng trống" [13].